AI가 생성한 저품질 콘텐츠가 인터넷에 범람함에 따라, AI 생성 여부를 탐지하는 스타트업 팡그램(Pangram)이 900만 달러(약 120억 원)의 투자를 유치했습니다. 이 회사는 99% 이상의 정확도를 자랑하는 차세대 텍스트 탐지 모델과 이미지 탐지 모델을 잇달아 출시하며 기업과 개인이 신뢰할 수 있는 정보를 판별할 수 있도록 돕고 있습니다. 이는 AI 오용으로 인한 사회적 혼란과 가짜 뉴스를 방지하는 데 필수적인 기술로 평가받습니다.
최근 미국 공화당 의원들이 올리브 가든(Olive Garden)의 파스타 무제한 패스가 미국 선거 제도보다 더 엄격하게 신분증을 요구한다며 유권자 신분증 의무화 법안(SAVE Act)의 필요성을 주장해 논란이 되었습니다. 그러나 이는 일반 방문객과 특정 무제한 패스의 규정을 의도적으로 혼동한 거짓 동치로, 선거권 전문가들은 해당 법안이 불필요하게 모든 시민의 투표권을 심각하게 제한할 것이라고 경고하고 있습니다. 이 사건은 정치권에서 사적 기업의 특정 프로모션 정책을 정치적 수사법으로 악용하는 사례로 평가됩니다.
뉴욕시는 집주인과 부동산 중개인이 매물을 더 매력적으로 보이기 위해 AI로 생성하거나 수정한 이미지를 사용할 경우 이를 의무적으로 명시해야 하도록 규제를 강화했습니다. '임대 사기 보고서'를 통해 거짓 매물로 인한 피해를 막고 입주자들의 권리를 보호하는 구체적인 정책을 제시한 것입니다. 특히 원격 계약을 하는 입주자들의 피해가 심각한 상황에서, AI 기술이 부동산 시장에서 악용되는 것을 막는 중요한 행정 조치로 평가받습니다.
이 게시물은 다음 세대 AI 모델로 예상되는 'GPT-5.6 Sol'의 정보를 해커뉴스(Hacker News)를 통해 미리 공개하는 내용입니다. 본문 전체가 0, 5, 6, 점(.)으로 이루어진 추상적인 기호로 작성되어 있어, 단순한 장난(April Fools)이나 암호화된 이스터에그일 가능성이 높습니다. 실무자들에게는 기술적 참고 자료라기보다는 커뮤니티 내의 밈(Meme) 또는 퍼포먼스로 해석할 수 있습니다.
에스토니아어 연구소가 AI 언어 모델이 러시아 선전에 얼마나 취약한지 평가하는 새로운 벤치마크를 발표했습니다. 테스트 결과 앤스로픽의 클로드(Claude) 모델이 가장 우수한 성능을 보인 반면, 유럽의 대안을 표방하는 프랑스 기업 미스트랄(Mistral)의 모델은 가짜 뉴스를 걸러내는 데 가장 취약한 것으로 나타났습니다. 이는 악의적인 외국 세력이 AI를 허위 정보 유포에 악용하는 보안 위협이 현존하며, 모델별 대응 능력 편차가 큼을 시사합니다.
AI가 수많은 군중과 대규모 공공 행사를 사실적으로 시뮬레이션할 수 있는 수준에 도달했습니다. 이제 중요한 것은 기술의 퀄리티 자체가 아니라, 사람들이 이를 창의적으로 활용하는 엄청난 속도입니다. 온라인상의 현실과 조작된 콘텐츠를 구분하기 점점 더 어려워질 것입니다.
BBC의 조사 결과, 악의적인 단 한 편의 블로그 게시물만으로 챗GPT나 구글 제미나이 같은 주요 AI 챗봇을 속여 건강이나 재정과 관련된 심각한 허위 정보를 유포하는 것이 매우 쉽게 입증되었습니다. 이에 구글과 주요 AI 기업들은 스팸 방지 정책을 업데이트하고 보이지 않는 곳에서 AI 조작 방지 시스템을 강화하며 대응하고 있습니다. 전문가들은 사용자들이 당장 이러한 AI의 단답형 결과를 비판 없이 수용하지 않도록 경계해야 한다고 강조합니다.
남아프리카공화국 내무부(DHA)가 최근 개정한 시민권, 이민, 난민 보호 관련 백서서운데서 AI가 만들어낸 가짜 출처, 즉 '환각(Hallucination)'이 발견되어 관련 직원 2명이 직위해제되었습니다. 이는 일주일 전 통신부의 AI 정책 초안에서도 발생했던 동일한 문제로, 공공 부문에서 AI 활용이 급증함에 따라 생성된 콘텐츠에 대한 철저한 검증 절차가 시급해짐을 보여줍니다.
최근 X(옛 트위터)에서 시간 여행을 하는 초지능 AI가 백악관 기자단 만찬 총격 사건을 사전에 경고하려 했다는 음모론이 크게 유행했습니다. 특정 트윗에 사용된 3D 추상 이미지가 트럼프 암살 시도 현장을 암시한다는 주장이었으나, 조사 결과 해당 이미지는 '타임 머신' 웹사이트 전용이 아니라 2021년부터 인터넷에 널리 쓰인 평범한 무료 스톡 이미지로 밝혀졌습니다. 이 사건은 AI와 관련된 억측이 어떻게 가짜 뉴스와 음모론으로 확산될 수 있는지 보여주는 좋은 사례입니다.
오픈AI가 가짜 기자명을 내세워 조작된 뉴스 기사를 게재하는 가짜 뉴스 사이트를 운영한 사실이 포착되었습니다. 해당 사이트는 인공지능의 안전성을 강화해야 한다고 주의를 기울이는 연구원 및 옹호자들을 집중적으로 겨냥해 비방 캠페인을 벌인 것으로 확인되었습니다. 이는 주요 AI 기업이 자사의 입장을 관철하기 위해 여론을 조작하는 '어스트로터핑(Astroturfing)' 기법을 사용했다는 점에서 업계 전반에 큰 윤리적 파장을 일으키고 있습니다.
최근 딥페이크 기술의 발달과 쉽게 접근 가능한 생성형 AI 모델의 보급으로, 가짜 음란물부터 정치적 선전까지 악의적인 딥페이크가 실제처럼 빠르게 유포되고 있습니다. 이러한 '무기화된 딥페이크'는 여성과 소외 계층에게 편향된 피해를 입히며, 사회적 신뢰와 비판적 사고를 저하시키는 심각한 문제를 야기하고 있습니다. 기업의 자체적 기술 통제나 정부의 규제에도 명확한 한계가 드러나는 가운데, 올해 있을 미국 중간선거 등을 앞두고 그 위험성이 더욱 커지고 있습니다.
인도의 한 의대생이 구글 제미나이(Gemini)의 조언을 받아 미국 보수층을 겨냥한 '에밀리 하트'라는 가짜 AI 인플루언서를 만들어 한 달에 수천 달러를 벌었다. 그는 AI로 생성한 백인 금발 미녀 이미지를 소셜 미디어에 올리며 반이민, 기독교 우위 등 극우 성향의 게시물을 유포했고, 이에 끌린 미국 중장년 남성들의 구독과 굿즈 판매로 막대한 수익을 창출했습니다. 이 사건은 특정 정치적 성향과 낮은 디지털 리터러시를 악용해 AI를 조작하는 사이버 범죄의 새로운 형태를 보여줍니다.